Ông gia nhập Quân đội nhân dân Việt Nam.

Từ tháng 5 năm 1971 đến tháng 9 năm 1971, ông là Chiến sỹ D36, D38, F304B.[9]

Từ tháng 10 năm 1971 đến tháng 8 năm 1972, ông là Chiến sỹ trinh sát C20, E165, F312, chiến đấu ở cánh đồng Chum, Xiêng Khoảng, Lào, sau đó đi học tại Trường Sĩ quan Lục quân 1.[9]

Từ tháng 9 năm 1972 đến tháng 3 năm 1973, ông tham gia chiến dịch A2 tại Quảng Trị, C4, E165, F312.[9]

Từ tháng 4 năm 1973 đến tháng 10 năm 1978, ông đào tạo sỹ quan trinh sát tại Trường Sỹ quan Lục quân 1 và đào tạo cán bộ chính trị tại trường sỹ quan chính trị.[9]

Ngày 17 tháng 8 năm 1973, ông gia nhập Đảng Cộng sản Việt Nam.[3]

Từ tháng 11 năm 1978 đến tháng 2 năm 1979, ông là Chính trị viên phó C1, D3 Trường Sỹ quan Lục quân 1.[9]

Từ tháng 2 năm 1979 đến tháng 7 năm 1979, ông tham gia chiến đấu tại mặt trận Cao Bằng, chính trị viên C4, D3, E183, Quân khu 1.[9]

Từ tháng 8 năm 1979 đến tháng 2 năm 1981, ông là Trợ lý cán bộ, Phòng Cán bộ, Trường Sỹ quan Lục quân 1.[9]

Từ tháng 3 năm 1981 đến tháng 4 năm 1987, ông là Đại úy, Trợ lý cán bộ - Bộ Tư lệnh Bảo vệ Lăng Chủ tịch Hồ Chí Minh.[9]

Từ tháng 4 năm 1987 đến tháng 5 năm 1992, ông là Thiếu tá, Trung tá, Phó trưởng ban rồi Trưởng ban Cán bộ - Bộ Tư lệnh Bảo vệ Lăng Chủ tịch Hồ Chí Minh.[9]

Từ tháng 6 năm 1992 đến tháng 3 năm 1994, ông là Trung tá, Phó Chánh văn phòng Ban Quản lý Lăng Chủ tịch Hồ Chí Minh.[9]

Từ tháng 4 năm 1994 đến tháng 3 năm 1997, ông là Thượng tá, Cục Cán bộ, Tổng cục chính trị Quân đội nhân dân Việt Nam, Thư ký Chủ tịch nước Lê Đức Anh.[9]

Từ tháng 4 năm 1997 đến tháng 3 năm 2003, ông là Trợ lý Cố vấn Trung ương Đảng, cựu Chủ tịch nước Lê Đức Anh. Tháng 9 năm 1999, ông được thăng quân hàm Đại tá.[9]

Từ tháng 3 năm 2003 đến tháng 12 năm 2005, ông là Phó Bí thư Thường trực Tỉnh ủyThái Nguyên.[9]

Từ tháng 1 năm 2006 đến tháng 8 năm 2007, ông là Bí thư Tỉnh ủy Thái Nguyên.[9]

Tại Đại hội đại biểu toàn quốc lần thứ X của Đảng Cộng sản Việt Nam, ông được bầu vào Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam khóa 10.[9]

Từ tháng 8 năm 2007, ông là ủy viên Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam, Phó trưởng Ban Tuyên giáo Trung ương Đảng Cộng sản Việt Nam.[9]

Tại Đại hội đại biểu toàn quốc lần thứ 11 của Đảng Cộng sản Việt Nam, ông được bầu vào Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam khóa 11.[9]

Từ 2011 đến 2016, ông là đại biểu Quốc hội Việt Nam khoá 13 thuộc đoàn đại biểu thành phố Hà Nội, đồng thời là giữ chức vụ Ủy viên Ban chấp hành Trung ương Đảng, Bí thư Ban cán sự Đảng bộ Thông tin và Truyền thông, Bộ trưởng Bộ Thông tin và Truyền thông, Phó Trưởng ban Tuyên giáo Trung ương.[3]

Tại Kỳ họp thứ Nhất, Quốc hội Việt Nam khóa 13 ngày 3 tháng 8 năm 2011, ông được Quốc hội phê chuẩn làm Bộ trưởng Bộ Thông tin và Truyền thông (Việt Nam).[9]

Tháng 4 năm 2016, tại kỳ họp thứ 11, Quốc hội khóa 13, Quốc hội phê chuẩn, Chủ tịch nước miễn nhiệm chức vụ Bộ trưởng Bộ Thông tin và Truyền thông.[9]